Мета за идентифициране на повече изображения, генерирани от AI, докато глобалната изборна треска се разгаря

Meta става все по-строга по отношение на дезинформацията, тъй като страните по света провеждат избори тази година.

Meta ще започне да обозначава снимки, генерирани от изкуствен интелект (AI), качени в нейните платформи Instagram, Facebook и Threads през следващите месеци, когато започне сезонът на изборите по света, съобщи компанията във вторник.

Компанията на Марк Зукърбърг изгражда инструменти за идентифициране на AI съдържание в мащаб, за да сортира дезинформация и deepfakes.

Meta казва, че сега ще се стреми да етикетира генерирано от AI съдържание, което идва от Google, OpenAI, Microsoft, Adobe , Midjourney и Shutterstock. Освен това ще накаже потребителите, които не разкрият дали реалистично видео или аудио парче е направено с AI.

Досега Meta маркираше само изображения, генерирани от AI, които използваха свои собствени инструменти за AI.

Президентът по глобалните въпроси на Meta Ник Клег написа в публикация в блог във вторник, че компанията ще започне генерираното от AI етикетиране от външни компании „през следващите месеци“ и ще продължи да работи по проблема „през следващата година“.

Освен това той каза, че Meta „работи усилено за разработването на класификатори, които могат да ни помогнат да откриваме автоматично генерирано от AI съдържание, дори ако съдържанието няма невидими маркери“.

Защо сега?

По време на президентските избори в САЩ през 2016 г. и 2020 г. Meta, тогава известна като Facebook, беше критикувана за свързана с изборите дезинформация от чуждестранни участници, предимно Русия, разпространяваща се в нейния сайт. Компанията също беше подложена на критики по време на пандемията от COVID-19 през 2019 г., когато здравната дезинформация също се разпространи в платформата.

Новата политика на Meta за изкуствен интелект също е вероятно да потуши независимия надзорен съвет на компанията, който в понеделник разкритикува своята медийна политика като „непоследователна“ и „липсваща убедителна обосновка“.

Следва решение, потвърдено от Meta, че манипулиран видеоклип на Джо Байдън, който първоначално показва президента на САЩ да разменя стикери „Аз гласувах“ с неговата възрастна внучка през 2022 г., по-късно беше манипулиран да изглежда така, сякаш е докоснал гърдите й неуместно.

Мета каза, че видеото не нарушава настоящите й политики, тъй като видеото не е манипулирано с AI.

Клег каза, че индустрията на социалните медии изостава в изграждането на стандарти за идентифициране на видео и аудио, генерирани от AI, но призна, че компанията не може сама да улови всяка фалшива медия.

„Тази работа е особено важна, тъй като има вероятност това да се превърне във все по-противническо пространство през следващите години“, каза Клег.

„Хора и организации, които активно искат да измамят хората с AI -генерираното съдържание ще търси начини да заобиколи предпазните мерки, които са въведени за откриването му. В нашата индустрия и общество като цяло ще трябва да продължим да търсим начини да сме една крачка напред.“

Последвайте ни в